Biasaddgrad

将偏置向量 input_bias 加到输入张量 input_x 上。这是一个特殊的广播加法，其中偏置向量会沿着非通道维度进行广播。

\[dbias_c = \sum_{n,h,w} dy(n, h, w, c)\]

其中 \(dbias_c\) 是偏置梯度向量的第 c 个元素，\(dy\) 是上游梯度张量。

输入：

  • dy - 来自后一层的上游梯度张量。格式必须为 NHWC。

  • dy_dims - 上游梯度张量 dy 的维度信息数组。

  • shape_size - 上游梯度张量 dy 的维度数。

  • core_mask - 核掩码。

输出：

  • dbias - 输出的偏置梯度向量。其长度等于 dy 的通道数。

支持平台：

FT78NE MT7004

备注

  • FT78NE 支持fp32

  • MT7004 支持fp16, fp32

共享存储版本:

void fp_biasaddgrad_s(float *dy, int *dy_dims, int shape_size, float *dbias, int core_mask)
void hp_biasaddgrad_s(half *dy, int *dy_dims, int shape_size, half *dbias, int core_mask)

C调用示例：

 1//FT78NE示例
 2#include <stdio.h>
 3#include <biasaddgrad.h>
 4int main(int argc, char* argv[]) {
 5    float *dy = (float *)0xA0000000;      // dy 在DDR空间
 6    float *dbias = (float *)0xB0000000;   // dbias output
 7
 8    // NHWC format
 9    int dy_dims[] = {2, 16, 16, 8}; // N, H, W, C
10    int shape_size = 4;
11    int core_mask = 0xff;
12
13    // The length of dbias should be dy_dims, which is 8.
14    fp_biasaddgrad_s(dy, dy_dims, shape_size, dbias, core_mask);
15    return 0;
16}

私有存储版本:

void fp_biasaddgrad_p(float *dy, int *dy_dims, int shape_size, float *dbias)
void hp_biasaddgrad_p(half *dy, int *dy_dims, int shape_size, half *dbias)

C调用示例：

 1//FT78NE示例
 2#include <stdio.h>
 3#include <biasaddgrad.h>
 4int main(int argc, char* argv[]) {
 5    float *dy = (float *)0x10000000;      // dy 在L2空间
 6    float *dbias = (float *)0x11000000;   // dbias output
 7
 8    // NHWC format
 9    int dy_dims[] = {2, 16, 16, 8}; // N, H, W, C
10    int shape_size = 4;
11
12    // The length of dbias should be dy_dims, which is 8.
13    fp_biasaddgrad_p(dy, dy_dims, shape_size, dbias);
14    return 0;
15}